Microsoft, Cihaz Üzerinde Çalışan ’Mu’ AI Modelini Duyurdu: Verimli Dil İşleme

Microsoft, Copilot+ PC'ler gibi cihazlarda bulut bağımlılığı olmadan çalışabilen kompakt bir dil modeli olan Mu'yu tanıttı. Nöral İşleme Birimlerini kullanan Mu, daha büyük bulut tabanlı AI sistemlerinin aksine, güç ve bellek kullanımını optimize ederek hızlı yanıtlar sunuyor.

Model, Microsoft'un Phi araştırması üzerine inşa edilmiş olup, yüksek kaliteli eğitim verileriyle eğitildi ve damıtma ve düşük dereceli adaptasyon gibi gelişmiş tekniklerle rafine edildi. Kodlayıcı-kod çözücü mimarisi, girdi/çıktı işlemeyi ayırarak, döner konumsal gömme ve gruplandırılmış sorgu dikkati gibi özelliklerle daha fazla verimlilik sağlıyor.

Nicemleme teknikleri, doğruluktan ödün vermeden hesaplamaları basitleştirerek performansı daha da artırıyor. Bu gelişme, tüketici donanımında merkezi olmayan AI yeteneklerine doğru bir kaymayı işaret ediyor.